Learning Preference Adaptation for Large Language Model Personalization via Verbal Reinforcement Learning
用语言强化学习把通用用户偏好适配到具体任务以提升 LLM 个性化
🧭 LLM 个性化 · 偏好适配 · 语言强化学习 ★ 深度解读
Software College, Northeastern University, China · Ant International
从少量样例中归纳文本重写策略，将冗长通用偏好压缩为紧凑任务相关表示，模型冻结全适配
📌 工作参考价值（4 点）
- 用户画像的任务级精炼：在搜索、推荐、广告等系统中，用户长期画像往往噪音大且与当前场景无关。可参考 AlignXada 的做法，用一个冻结的 LLM 作为重写器，按照少量历史问答样例归纳出一条文本策略，自动把原始画像压缩为仅保留当前任务关键证据的紧凑文本，再输入下游排序/生成模型，既能节省 token 又能避免无关信号干扰。
- 语言强化学习调优提示或检索策略：Verbal RL 不更新任何模型参数，只迭代修改策略文本，非常适合黑盒 LLM API 场景。在推荐解释、对话式推荐等应用里，可以仿照此法用自然语言反馈优化系统提示、检索改写规则等，低成本迭代出更有效的模板。
- Agent 记忆的动态重组优于简单检索：实验表明 RAG（BM25 检索相关块）虽然也能压缩，但会破坏偏好的整体连贯性，导致性能下降。在构建智能体长期记忆时，应当考虑用重组而非仅检索的方式为不同下游任务生成任务特定的记忆视图，例如在购物助手、客服 agent 中根据意图从完整记忆生成精简版上下文。
- 自适应采样改善反馈质量：策略优化时从支持集合中按“改善/退化/持续成功/持续失败”四类状态均匀采样，可提供更平衡的诊断信号，该方法可直接用于推荐系统里用少量样例调优提示词时的样例选择过程，提升策略的泛化性和稳定性。